Máy gia tốc AI Intel Gaudi 3 AI hiện có sẵn tại IBM Cloud;Thử nghiệm cho thấy hiệu suất nhanh hơn NVIDIA từ H100 & H200 AI GPUS

Tăng tốc AI Gaudi 3 của Intel đã chính thức được IBM Cloud áp dụng, đánh dấu lần đầu tiên một nhà cung cấp dịch vụ đám mây (CSP) sử dụng Gaudi 3 trong danh mục của mình. Điều này mang lại một lựa chọn tiết kiệm chi phí cho khách hàng, trong khi đội ngũ AI của NVIDIA không đạt được thành công như mong đợi do không tận dụng được cơn sốt AI từ sớm.

Công ty vẫn chưa thể chiếm lĩnh ngành công nghiệp, dẫn đến tỷ lệ áp dụng dòng sản phẩm AI Gaudi của Intel còn thấp. Tuy nhiên, IBM Cloud đã trở thành nhà cung cấp dịch vụ đám mây đầu tiên công bố sự có mặt của bộ tăng tốc AI Gaudi 3 của Intel, nhằm cung cấp giải pháp tiết kiệm chi phí cho khách hàng. Việc đưa các bộ tăng tốc AI Gaudi 3 vào IBM Cloud sẽ giúp doanh nghiệp mở rộng khối lượng công việc AI sinh tạo với hiệu suất tối ưu cho việc suy diễn và tinh chỉnh.

Sự hợp tác này thể hiện cam kết chung của chúng tôi trong việc làm cho AI trở nên dễ tiếp cận và tiết kiệm chi phí hơn cho các doanh nghiệp toàn cầu. Khách hàng có thể sử dụng khả năng tính toán của các bộ tăng tốc AI Gaudi 3 thông qua máy chủ ảo của IBM Cloud. Đặc biệt, Signal65 đã thử nghiệm bộ tăng tốc trên nền tảng này và công bố hiệu suất so với GPU dựa trên NVIDIAs H100 và H200.

Đây sẽ là lần đầu tiên Gaudi 3 của Intel được thử nghiệm ngoài nội bộ, và kết quả cho thấy Intel có thể cạnh tranh trong lĩnh vực AI nếu họ thực hiện đúng chiến lược. Các bài kiểm tra cho thấy bộ tăng tốc mới nhất của Intel vượt trội hơn các bộ tăng tốc AI NVIDIA H100 và H200 trên hai mô hình Granite 8B của IBM và Llama-3.1 của Meta. Các tham số được thiết lập riêng cho từng lần thử nghiệm, nghĩa là trong thực tế, hiệu suất của Gaudi 3 có thể không giống như kết quả này, nhưng những kết quả này rất thú vị.

Các bài kiểm tra hiệu suất đã được thực hiện với các kích thước đầu vào khác nhau, và Signal65 kết luận rằng Gaudi 3 duy trì hiệu suất cạnh tranh cao so với NVIDIA H200 và H100 trong nhiều cấu hình khác nhau, cho thấy tính ứng dụng rộng rãi trong nhiều trường hợp AI. Thêm vào đó, Gaudi 3 của Intel có sẵn trên IBM Cloud với mức giá thấp hơn so với các sản phẩm của Team Green, là lựa chọn lý tưởng cho khách hàng tìm kiếm giải pháp tính toán tiết kiệm chi phí.

Tổng quan, có thể nói rằng Gaudi 3 của Intel có thể trở thành một sản phẩm ấn tượng nếu được tiếp thị và áp dụng đúng cách. Mặc dù không thể so sánh với sự phổ biến và hiệu suất của NVIDIA, Gaudi 3 vẫn là một lựa chọn khả thi.

Nguồn: wccftech.com/intel-gaudi-3-ai-accelerator-now-available-at-ibm-cloud/